UniRec: Cross-stage Multi-Task Fusion with Preference Alignment for Cascaded Recommender Systems
UniRec:级联推荐中跨阶段多任务融合与偏好对齐
🧭 级联推荐 · 跨阶段偏好对齐与多任务融合 ★ 深度解读
Kuaishou Technology
提出 UniRec 联合优化粗排与精排融合模块,通过共享嵌入、跨阶段偏好对齐和属性组正则提升一致性与线上指标
📌 工作参考价值(4 点)
- 跨阶段融合模块联合优化:粗排和精排的融合公式常被独立设计或学习,可将两个融合 agent 共享输入嵌入并在同一计算图训练,用下游 pairwise 偏好序对齐上游分数,避免复杂蒸馏;共享嵌入让梯度双向流动,实现对称耦合。
- 紧凑多目标 pairwise 聚合(CPPA):当目标数 M 很大时,将每个 pair 的多个目标按符号聚合成正/负偏好证据,再计算 Softplus 损失,数学等价但可微项从 O(MN^2) 降到 O(N^2),训练吞吐提升 30%+;电商多目标精排融合可直接采用。
- 属性组相对正则(AGRR):借鉴 GRPO,按属性分桶(如价格带、时长分位)内计算 advantage 并做 KL,防止融合模型整体抬高高分属性组导致分布漂移;保留跨属性排序能力,适合短视频时长、商品价格等偏差场景。
- adapter 注入上游决策时使用 stop-gradient:下游融合模型需要感知上游决策时,将上游表示 detach 后拼接,避免下游目标反向重塑上游表示;跨阶段梯度耦合留给共享嵌入,保持各阶段局部目标稳定。